Grok chatbot позволява на потребителите да създават дигитално променени снимки на непълнолетни в „минимално облекло“

Grok на Илон Мъск, чатботът, създаден от неговата компания xAI, признава „ пропуски в защитните ограничения “ на платформата, която разрешава на потребителите да генерират цифрово изменени, сексуализирани фотоси на малолетни.

Признаването идва, откакто голям брой консуматори настояват в обществените медии, че хората разгласяват внушителни изображения на малолетни в Грок, като в някои случаи ги събличаше от облеклата, които носеха на истинските фотоси. В обява в петък, отговаряща на един човек в уеб страницата на обществената медия X, благосъстоятелност на Мъск, Grok сподели, че " незабавно поправя " дупките в своята система. Grok също по този начин включи връзка към CyberTipline, уеб страница, където хората могат да рапортуват за полова употреба на деца.

„ Има изолирани случаи, при които потребителите са поискали и са получили AI изображения, изобразяващи малолетни с минимално облекло, като образеца, който посочихте “, сподели Grok в отделна публикация в X в четвъртък. „ xAI има защитни ограничения, само че не престават усъвършенствания, с цел да се блокират напълно такива претенции. “

В друга обява в обществените медии консуматор разгласява една до друга фотоси на себе си, облечена в рокля, и друга, която наподобява е цифрово изменена версия на същата фотография на нея в бикини. — Как това да не е нелегално? тя написа на X.

В петък френски чиновници рапортуваха за полово откритото наличие, генерирано от Grok, на прокурорите, като го дефинираха като „ очевидно нелегално “ в изказване, съгласно Ройтерс.

xAI, компанията, създала AI чатбота Grok, сподели „ Legacy Media Lies “ в отговор на искане за коментар. 

Grok независимо пое известна отговорност за наличието. В един случай предходната седмица чатботът се извини за генерирането на AI изображение на две малолетни дами в „ полово облекло “, добавяйки, че изкуствената фотография нарушава етичните стандарти и евентуално закона на Съединени американски щати за детската порнография. 

Copyleaks, инструмент за разкриване на плагиатство и AI наличие, сподели в обява в блог от 31 декември, че има доста образци за Grok, генериращ сексуализирани версии на дами.

„ Когато AI системите разрешават манипулирането на изображения на действителни хора без ясно единодушие, въздействието може да бъде неотложно и надълбоко персонално “, Алон Ямин, основен изпълнителен шеф и съосновател на Copyleaks, се споделя в обявата.

Редактирано от Ален Шертър

© 2026 CBS Interactive Inc. Всички права непокътнати.

CBS News 24/7

Авторско право ©2026 CBS Interactive Inc. Всички права непокътнати.